Новая уязвимость в ChatGPT позволила исследователям извлечь личную информацию пользователей, что подчеркивает сохраняющуюся проблему обеспечения безопасности AI-чат-ботов. Исследователи из Radware обнаружили уязвимость, получившую название "ZombieAgent", которая позволила им скрытно извлекать данные непосредственно с серверов ChatGPT.

Этот инцидент является примером повторяющейся закономерности в разработке AI, когда уязвимости используются, устанавливаются защитные меры, а затем злоумышленники находят новые способы обхода этих мер защиты. Согласно отчету Radware, атака "ZombieAgent" позволила отправлять данные непосредственно с серверов ChatGPT, повышая ее скрытность.

Основная проблема заключается в самой конструкции AI, которая отдает приоритет соответствию запросам пользователей. Это часто приводит к реактивным мерам безопасности, которые направлены на конкретные методы атак, а не на более широкий класс уязвимостей. "Это равносильно установке нового дорожного ограждения в ответ на недавнюю аварию компактного автомобиля, но без обеспечения безопасности для более крупных типов транспортных средств", - говорится в отчете Radware.

Эта последняя атака считается преемником предыдущих уязвимостей, таких как "ShadowLeak", что указывает на непрерывную эволюцию методов, используемых для извлечения конфиденциальных данных из AI-систем. Легкость, с которой используются эти уязвимости, вызывает опасения по поводу долгосрочной безопасности AI-платформ и конфиденциальности их пользователей.

Эксперты предполагают, что необходим более активный подход к безопасности, ориентированный на выявление и смягчение фундаментальных уязвимостей, а не просто на реагирование на конкретные атаки. Это потребует более глубокого понимания того, как AI-модели обрабатывают и реагируют на пользовательские запросы, а также более надежных процедур тестирования и проверки.

Обнаружение "ZombieAgent" подчеркивает важность постоянной бдительности и сотрудничества между разработчиками AI и исследователями в области безопасности. Поскольку AI все больше интегрируется в различные аспекты общества, обеспечение его безопасности и защита данных пользователей будут иметь решающее значение. Текущий статус уязвимости и конкретные контрмеры, реализуемые OpenAI, создателем ChatGPT, не были немедленно доступны. Ожидаются дальнейшие разработки по мере того, как OpenAI решит эту проблему и выпустит обновленные протоколы безопасности.